Родителският контрол идва в Chatgpt „в рамките на следващия месец“, казва Openai

Вижте всички тематики Връзка копирана! Следвайте

  Тази история съдържа полемика за самоубийството. Помощта е разполагаем, в случай че вие или някой, който познавате, се борите със самоубийствени мисли или въпроси за психологичното здраве. В Съединени американски щати: Обадете се или текст 988, избавителната линия на самоубийството и рецесията. В международен мащаб: Международната асоциация за попречване на самоубийства и приятелю на международен мащаб има информация за контакт за спешни центрове по целия свят.

Компанията майка на Chatgpt, OpenAI, споделя, че възнамерява да започва наставнически надзор за известния си асистент на AI „ в границите на идващия месец “ след изказванията, че ИТ и други чатботи са съдействали за самонараняване или самоубийство измежду младежите.

„ Тези стъпки са единствено началото “, написа Openai в обява в блога във вторник. „ Ще продължим да учим и укрепваме нашия метод, управителен от специалисти, за да създадем Chatgpt допустимо най -полезен. “

Но в изказването, оповестено предходната седмица в отговор на самоубийството на Рейн, компанията съобщи, че защитните си ограничения от време на време могат да станат ненадеждни, когато потребителите вземат участие в дълги диалози с Chatgpt.

„ Chatgpt включва защитни ограничения като ориентиране на хората към спешни линии за помощ и ориентиране към запаси в действителния свят “, съобщи представител на компанията предходната седмица. „ Докато тези защитни ограничения работят най -добре, къси замени, с времето научихме, че от време на време могат да станат по -малко надеждни при дълги взаимоотношения, където елементи от образованието за сигурност на модела могат да се влошат. Защитените ограничения са най -силни, когато всеки детайл работи по предопределение и ние непрестанно ще се подобряваме върху тях, ръководени от специалисти. “

В допълнение към родителския надзор, разгласен във вторник, Openai споделя, че ще насочи диалозите с признаци на „ изострен стрес “ към един от своите модели за разсъждения, за които компанията споделя, че следва и ползва напътствията за сигурност по -последователно. Той също по този начин работи с специалисти в „ младежко развиване, психологично здраве и взаимоотношение сред индивида и компютър “, с цел да развие бъдещи защитни ограничения, в това число наставнически надзор, обявиха от компанията.

Openai е в центъра на AI Boom, като Chatgpt е една от най -широко употребяваните AI услуги със 700 милиона седмични дейни консуматори. Но той е изправен пред нараснал напън, с цел да се подсигурява сигурността на своята платформа; Сенаторите през юли написаха писмо до компанията, в което се изисква информация за напъните му в това отношение, съгласно Washington Post. И застъпническата група Common Sense Media съобщи през април, че на младежите под 18 години не би трябвало да се позволяват да употребяват AI „ придружителни “ приложения, тъй като съставляват „ неприемливи опасности “.

Компанията също се бори с рецензии към метода и тона на Chatgpt във взаимодействията; През април тя върна актуализация, която направи чатбота „ прекомерно хвалебствен или прелестен “. Миналия месец тя вкара още веднъж опцията за прекосяване към по-стари модели, откакто потребителите подлагаха на критика най-новата версия, GPT-5, заради неналичието на персона. Бившите ръководители на Openai също упрекнаха компанията, че в предишното разгражда ресурсите за сигурност.

Клеър Дъфи от CNN способства за този отчет.